Anthropic предупреждава за хакерска кампания, управлявана от изкуствен интелект, свързана с Китай

ВАШИНГТОН (AP) — Екип от откриватели откри това, което съгласно тях е първото докладвано потребление на изкуствен интелект за ориентиране на хакерска акция по значително автоматизиран метод.

Компанията за изкуствен интелект Anthropic съобщи тази седмица, че е прекъснала кибероперация, която нейните откриватели свързват с китайското държавно управление. Операцията включваше потреблението на система с изкуствен интелект за ориентиране на хакерските акции, което откривателите нарекоха тревожно развиване, което може доста да разшири обсега на оборудваните с AI хакери.

Въпреки че опасенията по отношение на потреблението на AI за ръководство на кибер интервенции не са нови, това, което е обезпокоително за новата интервенция, е степента, до която AI съумя да автоматизира част от работата, откривателите сподели.

„ Въпреки че прогнозирахме, че тези качества ще продължат да се развиват, това, което ни направи усещане, е какъв брой бързо са го създали в мащаб “, пишат те в отчета си.

Операцията беше със непретенциозен обсег и беше ориентирана единствено към към 30 лица, работещи в софтуерни компании, финансови институции, химически компании и държавни организации. Anthropic видя интервенцията през септември и предприе стъпки да я спре и да уведоми засегнатите страни.

Хакерите са „ съумели единствено в дребен брой случаи “, съгласно Anthropic, който отбелязва, че макар че AI системите се употребяват от ден на ден в разнообразни настройки за работа и свободно време, те също могат да бъдат въоръжени от хакерски групи, работещи за непознати съперници. Anthropic, производител на generative AI chatbot Claude, е една от многото софтуерни компании, предлагащи AI „ сътрудници “, които надвишават опциите на chatbot за достъп до компютърни принадлежности и предприемане на дейности от името на човек.

„ Агентите са скъпи за ежедневната работа и продуктивността – само че в неверни ръце те могат доста да усилят жизнеспособността на широкомащабни хакерски атаки “, заключават откривателите. „ Ефективността на тези офанзиви евентуално единствено ще нараства. “

Говорител на китайското посолство във Вашингтон не върна незабавно известие с искане за коментар по отношение на отчета.

Microsoft предизвести по-рано тази година, че задграничните съперници от ден на ден възприемат AI, с цел да създадат своите кибер акции по-ефективни и по-малко трудоемки.

Противниците на Америка, както и незаконни банди и хакерски компании, експлоатираха капацитета на AI, употребявайки го за автоматизиране и възстановяване на хакерските атаки, за разпространяване на възпалителна дезинформация и за навлизане в чувствителни системи. AI може да превежда неприятно дефинирани фишинг имейли на британски език, да вземем за пример, както и да генерира цифрови клонинги на висши държавни чиновници.